Nhánh Thiết Phất ở miền bắc của người Hung Nô đã giành được sự kiểm soát khu vực Nội Mông Cổ trong vòng 10 năm từ 376 giữa thời gian nước Đại của thị tộc Thác Bạt (một nhánh của bộ lạc Tiên Ti) bị nước Tiền Tần chinh phục và sau đó phục hồi vào năm 386 gọi là nhà Bắc Ngụy. Năm 376, Phù Kiên sai Phù Lạc tiến vào nước Đại, diệt Thác Bạt Thiệt Quân (拓跋寔君), rồi chia đất làm hai, giao cho hai thủ lĩnh người Hung Nô là Lưu Vệ Thần và Lưu Khố Nhân cai quản, dưới quyền Phù Lạc. Năm 380, Phù Lạc cậy công đánh được nước Đại nên làm phản. Phù Kiên mang quân nhanh chóng dẹp tan, giết chết Lạc. Lưu Khố Nhân chiếm cứ Hà Đông[1], Lưu Vệ Thần kiểm soát đất Hà Tây[2].

Sau trận Phì Thủy dẫn đến sự sụp đổ của nhà Tiền Tần, trên danh nghĩa Lưu Vệ Thần nhận làm chư hầu của Hậu Tần và Tây Yên, nhưng vẫn thực sự quản lý các vùng đất đó. Năm 391, Lưu Vệ Thần đem quân tấn công Bắc Ngụy bị thất bại nặng, Thác Bạt Khuê cho quân vượt sông Hoàng Hà tấn công vào thủ phủ Duyệt Bạt (悅拔, nay là Ordos, Nội Mông) buộc Lưu Vệ Thần phải chạy trốn và sau đó bị thuộc hạ giết chết[3]. Bắc Ngụy chiếm lấy các vùng đất của Lưu Vệ Thần và xử tử các quý tộc Hung Nô. Sau năm 391, người Hung Nô dần dần bị người Thác Bạt tiêu diệt hoặc bức hàng. Những người Thiết Phất chịu quy phục được gọi là người Độc Cô.

Con của Lưu Vệ Thần là Lưu Bột Bột (381 – 425) lúc đó mới lên 11 tuổi chạy tới khu vực Ordos[4], nương nhờ thủ lĩnh bộ lạc Tiên Ti là Cao Bình công Một Dịch Kiền (沒奕干), một chư hầu của nhà Hậu Tần. Một Dịch Kiền giúp đỡ và gả con gái cho Lưu Bột Bột. Năm 402, bị Bắc Ngụy tấn công, Một Dịch Kiền rút chạy đến Hậu Tần. Sau đó Hậu Tần cho quân chiếm lại Cao Bình. Lưu Bột Bột được vua Hậu Tần là Diêu Hưng phong làm tướng quân và tước Ngũ Nguyên công, chịu trách nhiệm trấn thủ đất Sóc Phương. Diêu Hưng phân cấp cho Lưu Bột Bột 5 bộ Tiên Ti và hơn 2 vạn người Hồ trấn thủ phương bắc.

Năm 407, sau nhiều lần chịu tổn thất bởi các cuộc tấn công của Bắc Ngụy, Diêu Hưng quyết định hòa hoãn với Bắc Ngụy. Nghe tin đó Lưu Bột Bột rất phẫn nộ vì Bắc Ngụy là kẻ thù của Lưu Bột Bột, và chuẩn bị nổi dậy. Lưu Bột Bột cướp lấy số ngựa cống phẩm của người Nhu Nhiên dâng cho Hậu Tần, bất ngờ tập kích vào Một Dịch Kiền, chiếm lấy Cao Bình, giết chết Một Dịch Kiền, tự xưng là Thiên vương. Lưu Bột Bột thành lập ra một tiểu quốc gọi là nước Hạ (gọi như vậy là do tổ tiên của người Hung Nô được coi là có từ triều đại nhà Hạ).